Tháng 3 năm 1953 Lavrentiy Pavlovich Beria đã sáp nhập MVD và MGB vào một bộ máy MVD mới. Chỉ trong vòng một năm, Beria đã hoàn thành công việc và MVD đã được cải tổ. Sự cải cách này đã duy trì cho MVD một lực lượng cảnh sát riêng và tăng thêm quyền lực. Cơ quan mới KGB đảm đương những chức năng đảm bảo an ninh nội bộ và an ninh đối ngoại. Cùng với việc tái cơ cấu lại, KGB được đặt dưới sự giám sát và lãnh đạo trực tiếp của Hội đồng Bộ trưởng.

Vào ngày 5 tháng 7 năm 1978, KGB được đặt lại tên một lần nữa thành "KGB của Liên bang Xô viết". Vị giám đốc của cơ quan này được nắm giữ một ghế trong Hội đồng Bộ trưởng.

Sau những hoạt động rất nổi tiếng, những điệp vụ lớn, cuối cùng KGB vẫn bị giải tán khi người lãnh đạo cơ quan là Đại tướng Vladimir Aleksandrovich Kryuchkov đã sử dụng tiềm lực của KGB giúp đỡ những hoạt động táo bạo nhằm lật đổ Tổng thống đầu tiên và cũng là cuối cùng của Liên bang Xô viết Mikhail Sergeyevich Gorbachyov vào tháng 8 năm 1991.

Ngày 23 tháng 8 năm 1991 tướng Kryuchkov đã bị bắt giữ và tướng Vadim Viktorovich Bakatin được bổ nhiệm làm Giám đốc KGB, người sau đó ra lệnh giải thể "KGB của Liên bang Xô viết".

Ngày 6 tháng 11 năm 1991 KGB chính thức chấm dứt tồn tại, để lại sau nó rất nhiều phi vụ bí mật, những điệp viên sừng sỏ và nhiều bí mật khác. Ủy ban An ninh Nhà nước Cộng hòa Belarus.

Mặc dù được nối tiếp bởi Cơ quan An ninh Liên bang Nga (FSB) có chức năng tương tự như KGB nhưng ý nghĩa của nó không còn như trước.

Belarus là quốc gia duy nhất thời hậu Liên bang Xô viết có tổ chức Cơ quan An ninh Quốc gia tiếp tục được biết đến như là KGB. Belarus cũng chính là quê hương của Felix Edmundovich Dzerzhinsky, một trong những người sáng lập nên Cheka, tổ chức tiền thân của KGB.